Ghi chép gần nhất mô tả một đội hình giống-như-phalanx là ở một tấm bia Sumerian năm 2450 TCN. Trong hình, quân đội có vẻ như được trang bị giáo, mũ che đầu, và khiên rất lớn che cả thân người. Bộ binh Ai Cập Cổ được chép lại là đã sử dụng đội hình tương tự vậy. Lần sử dụng đầu tiên của thuật ngữ phalanx là của Homer với "(φαλαγξ), dùng để mô tả hoplite chiến đấu trong một tiền tuyến được tổ chức. Homer sử dụng thuật ngữ này để chỉ ra sự khác biệt những trận chiến dựa trên đội hình từ những trận đấu cá nhân thỉnh thoảng thấy trong những bài thơ của ông.

Các nhà sử học vẫn chưa thống nhất giữa đội hình phalanx của người Hy Lạp và những đội hình của những người trước đó. Nguyên lý sử dụng bức tường khiên và đội hình giáo khăng khít đã rất phổ biến giữa những đội quân của những nền văn minh lớn xuyên suốt lịch sử, vậy sự tương tự có thể là do sự tiến hóa hội tụ chứ không phải là sự ảnh hưởng.

Theo truyền thống, các nhà sử học đánh dấu mốc sự ra đời của phalanx hoplite của Hy Lạp cổ đại vào thế kỷ VIII TrCN ở Sparta, tuy nhiên điều này chưa được xác nhận chính xác. Có vẻ chính xác hơn là đội hình này đã được đưa ra khoảng thế kỷ VII TCN sau sự giới thiệu aspis (một tấm khiên cũng được gọi là hoplon) ở thành Argos, đã làm đội hình trở nên khả thi. Việc này cũng có bằng chứng xa hơn là trên chiếc bình Chigi, vào năm 650 Tcn, xác định hoplite được vũ trang aspis, giáo và panoply(bộ giáp đầy đủ).